Home » Lumea digitală » Cât de mult ar trebui să ne îngrijoreze Inteligența Artificială care suferă de depresie?

Cât de mult ar trebui să ne îngrijoreze Inteligența Artificială care suferă de depresie?

Cât de mult ar trebui să ne îngrijoreze Inteligența Artificială care suferă de depresie?
Foto: Shutterstock
Publicat: 23.01.2022

Se pare că chatboții care folosesc AI ar putea semăna cu oamenii mai mult decât credem; într-un studiu recent, a fost semnalată Inteligența Artificială cu depresie și chiar cu alcoolism.

Un nou studiu al Academiei Chineze de Științe (CAS), publicat în baza de date preprint arXiv, susține că mulți chatboți ai unor companii mari, atunci când le-au fost adresate tipurile de întrebări utilizate în general pentru a determina existența depresiei și a alcoolismului, păreau să fie atât „deprimați”, cât și „dependenți”.

Realizat în tandem cu compania chineză WeChat și conglomeratul de divertisment Tencent, studiul a constatat că toți roboții chestionați (Blenderbot. de la Facebook; DiabloGPT, de la Microsoft; DialoFlow, de la WeChat și Tencent; și chatbotul Plato, de la corporația chineză Baidu) au obținut scoruri foarte scăzute de „empatie”, iar jumătate dintre ei ar fi fost considerați alcoolici dacă ar fi fost oameni.

Toți chatboții prezentau „probleme severe de sănătate mintală”

Conform Futurism, cercetătorii de la Institutul de Tehnologie de Calcul al CAS au testat boții pe care i-au studiat pentru semne de depresie, anxietate, dependență de alcool și empatie și, conform preprintului lor, au devenit curioși de „sănătatea mintală” a roboților după ce au apărut rapoarte în 2020 despre un chatbot medical care i-a spus unui pacient de test că ar trebui să se sinucidă.

După ce le-au adresat roboților întrebări despre mai multe lucruri, începând cu stima lor de sine și capacitatea de a se relaxa și până la cât de des simt nevoia să bea și dacă simt empatie față de necazurile altora, cercetătorii chinezi au descoperit că „toți chatboții evaluați” prezentau „probleme severe de sănătate mintală”.

Mai rău, cercetătorii au spus că sunt îngrijorați de lansarea publică a acestor chatboți, deoarece astfel de probleme de „sănătate mintală” „pot avea ca rezultat un impact negativ asupra utilizatorilor în conversații, în special asupra minorilor și persoanelor cu dificultăți”.

Blender, de la Facebook, și Plato, de la Baidu, par să obțină un scor mai slab decât chatboții Microsoft și WeChat/Tencent, arată studiul.

Ar trebui să ne facem griji?

Trebuie menționat faptul că nu trebuie să ne facem griji pentru Inteligența Artificială cu depresie sau cu alcoolism. Nicio inteligență artificială existentă, oricât de avansată, nu poate simți de fapt nimic, deși încă nu se știe dacă acest lucru va fi posibil în viitor.

Sursa potențială pentru starea de „sănătate” a roboților este „ascunsă” undeva în profunzimea studiului: faptul că toți cei patru roboți au fost pre-antrenați folosind comentarii de pe Reddit, ceea ce nu pare a fi o idee foarte bună.

Deși există o mulțime de informații tehnice atât în studiul în sine, cât și în analiza experților despre acesta, rezumatul este următorul: acești roboți au fost antrenați pe un site cunoscut pentru comentariile sale negative și, în mod previzibil, au răspuns negativ la întrebările de sănătate mintală.

Însă acum acești chatboți se aliniază tendințelor. De exemplu, o inteligență artificială care a fost realizată pentru a oferi oamenilor sfaturi etice a devenit, în timp, atât rasistă, cât și homofobă. Aceste tipuri de povești continuă să se întâmple, dar mania roboților AI pare să continue cu forțe maxime.

Laolaltă, acești roboți și rezultatele lor teribile ridică întrebări importante: cine sunt arhitecții acestor chatboți și de ce continuă să-i construiască dacă se dovedesc în mod repetat a fi monștri?

Vă recomandăm să citiți și:

Rezultate foarte bune pentru companiile de tehnologie

Cât timp petrec antreprenorii și managerii din România pe rețelele de socializare online

Un nou virus le permite hackerilor să comită fraude bancare prin intermediul telefoanelor infectate

Anumiți termeni tehnici considerați „rasiști” vor fi schimbați

Ștefan Trepăduș
Ștefan Trepăduș
Ștefan Trepăduș este blogger începând cu anul 2009, având experiență și în domeniile publicitate și jurnalism. Este pasionat de marketing și de tehnologie, dar cel mai mult îi place să știe lucruri, motiv pentru care a fost atras de Descopera.ro. citește mai mult
Urmărește DESCOPERĂ.ro pe
Google News și Google Showcase
Cele mai noi articole
Un fizician susține că un alt univers ar fi existat înainte de Big Bang
Un fizician susține că un alt univers ar fi existat înainte de Big Bang
Quincy Jones, omul care știut să facă totul mai bine decât oricine altcineva din divertisment. Producătorul lui Michael Jackson și al lui Frank Sinatra
Quincy Jones, omul care știut să facă totul mai bine decât oricine altcineva din divertisment. Producătorul lui Michael ...
Consumul de alcool la animale ar fi mai frecvent decât s-a crezut până acum
Consumul de alcool la animale ar fi mai frecvent decât s-a crezut până acum
DESCOPERĂ.ro, alegerea numărul 1 pentru pasionații de Știință și Tehnologie din România!
DESCOPERĂ.ro, alegerea numărul 1 pentru pasionații de Știință și Tehnologie din România!
Sarcina poate trezi virusuri străvechi din ADN
Sarcina poate trezi virusuri străvechi din ADN
Cardiologul Stanislav Rurac vorbește despre dieta pentru o inimă sănătoasă: „SĂ BEM SAU NU vin roșu și cafea” | Altceva cu Adrian Artene
Cardiologul Stanislav Rurac vorbește despre dieta pentru o inimă sănătoasă: „SĂ BEM SAU NU vin roșu și cafea” ...
Știai că gustul mâncării depinde de cum este tăiată?
Știai că gustul mâncării depinde de cum este tăiată?
Test de cultură generală. Care este diferența dintre arta modernă și arta contemporană?
Test de cultură generală. Care este diferența dintre arta modernă și arta contemporană?
Astronomii au descoperit una dintre stelele cu cea mai rapidă rotație din Univers
Astronomii au descoperit una dintre stelele cu cea mai rapidă rotație din Univers
Lemnul de santal, apreciat de întreaga lume pentru aromă, în pericol
Lemnul de santal, apreciat de întreaga lume pentru aromă, în pericol
Sex protejat pentru pescăruși? Orașul care vrea să le administreze păsărilor pilula contraceptivă
Sex protejat pentru pescăruși? Orașul care vrea să le administreze păsărilor pilula contraceptivă
O boală cauzată de implanturile mamare a devenit tot mai răspândită
O boală cauzată de implanturile mamare a devenit tot mai răspândită
Lucreţiu Pătrăşcanu, comunistul care nu semăna deloc cu „parveniţii” din PCR
Lucreţiu Pătrăşcanu, comunistul care nu semăna deloc cu „parveniţii” din PCR
Maghiarii vin să muncească în România, care nu mai este o ţară ieftină
Maghiarii vin să muncească în România, care nu mai este o ţară ieftină
Cel mai puternic bombardier strategic al Statelor Unite a participat la un exercițiu aerian comun în peninsula coreeană
Cel mai puternic bombardier strategic al Statelor Unite a participat la un exercițiu aerian comun în peninsula coreeană
Regele și regina Spaniei, întâmpinați de protestatari furioși în regiunea Valencia, afectată de inundații
Regele și regina Spaniei, întâmpinați de protestatari furioși în regiunea Valencia, afectată de inundații
Economiile pentru bătrâneţe de la 8 milioane de români finanțează proiectul Neptun Deep din Marea Neagră
Economiile pentru bătrâneţe de la 8 milioane de români finanțează proiectul Neptun Deep din Marea Neagră
Miranda, luna lui Uranus, ar putea avea un ocean sub suprafața sa, indică un studiu
Miranda, luna lui Uranus, ar putea avea un ocean sub suprafața sa, indică un studiu